Vermeidung von Bias und Diskriminierung

Künstliche Intelligenz lernt aus riesigen Datenmengen und kann dadurch unbeabsichtigt menschliche Vorurteile (Bias) oder stereotype Muster reproduzieren. Um eine faire, unvoreingenommene und objektive Fallbearbeitung in der Schlichtungsstelle zu garantieren, sind folgende Grundsätze bei der Nutzung der KI zwingend einzuhalten:

• Prüfung auf Gleichbehandlung: Die von der KI generierten Ergebnisse – insbesondere bei Übersetzungen, E-Mail-Entwürfen oder der Textvereinfachung – müssen stets daraufhin überprüft werden, ob sie eine der Parteien (Antragssteller:in oder Antragsgegner:in) unangemessen benachteiligen. Es darf in der Fallbearbeitung zu keinerlei Diskriminierung aufgrund von Geschlecht, ethnischer Herkunft, Sprache, Religion, Alter oder sozialer Herkunft kommen.
• Ausgewogene Zusammenfassungen: Bei der Nutzung der KI-Zusammenfassung einer Akte ist durch die Sachbearbeiter:innen darauf zu achten, dass die Argumente und Sachverhalte beider Seiten objektiv und gleichwertig wiedergegeben werden. Die KI darf nicht dazu führen, dass der Standpunkt einer Partei überproportional gewichtet oder der Kontext verfälscht wird.
• Neutrale Eingaben (Prompts): Achten Sie bei der manuellen Eingabe von Informationen oder bei Rückfragen an den Chatbot auf eine sachliche und neutrale Sprache. Vermeiden Sie wertende oder emotional aufgeladene Beschreibungen der beteiligten Parteien, um die KI nicht in eine voreingenommene Richtung zu lenken.
• Menschliche Verantwortung: Die KI besitzt keine ethische oder moralische Instanz. Die alleinige Verantwortung für eine diskriminierungsfreie, neutrale und rechtskonforme Kommunikation im gesamten Schlichtungsverfahren trägt immer die bearbeitende Person.